Стэнфорд выявил расовую предвзятость в ИИ-платформах для подбора персонала

Используемые крупными работодателями инструменты искусственного интеллекта (ИИ) для найма сотрудников неоднократно отсеивали одних и тех же соискателей — при этом темнокожие и азиаты страдали от этого несоизмеримо чаще. Об этом сообщает Стэнфордский университет.

Авторы исследования изучили 4 млн заявок у 156 работодателей, использующих платформу Pymetrics, которая оценивает соискателей на основе онлайн-игр, и выявили доказательства «системных отказов», связанных с её алгоритмами. Чтобы почти наверняка получить хотя бы одну рекомендацию для перехода на следующий этап подачи заявки, соискателям необходимо откликаться как минимум на 25 вакансий. Игровые тесты стали особенно популярны среди крупных работодателей — они обращаются к компаниям Pymetrics или HireVue, которые проверяют поступающие заявки в больших количествах. Соискатели, однако, жалуются, что тратят часы на прохождение тестов, располагая минимальными шансами, что их заявку вообще рассмотрит человек.

Учёные Стэнфорда проанализировали 4 млн заявок на рабочие места, поданных через Pymetrics в период с декабря 2018 по декабрь 2022 года. В выборку были включены 156 работодателей, большинство из которых имели годовой доход в размере от $5 млрд. Результаты исследования показали «явные расовые различия» — каждая десятая должность в наборе данных была подвержена «негативному влиянию» в отношении чернокожих кандидатов; в каждом двадцатом случае такое же влияние оказывалось на кандидатов азиатского происхождения. Было также установлено, что разные работодатели по некоторым должностям использовали одни и те же модели алгоритмов — всего были выявлены 42 такие модели. Это значит, что кандидаты, которым было отказано в одной компании, с большой вероятностью сталкивались с отказом в других.

Используемые Pymetrics алгоритмы учитывают такие качества как склонность к риску, скорость реакции, доверие и забота о других людях. Кандидатам, чьи показатели оказались наиболее близки к лучшим сотрудникам, рекомендовали проходить дальше, а прочим выписывали отказ. Выводы исследования могут не распространяться на все алгоритмические системы отбора, предупредили учёные — игровой подход Pymetrics может отличаться от схем анализа резюме, сообщает 3dnews.ru.

Как сообщалось ранее, глава OpenAI Сэм Альтман заявил, что быстрое распространение ИИ пока не привело к апокалипсису рабочих мест.